1. 9.1 K-近邻算法简介

1.1. 学习目标

  • 了解什么是KNN算法
  • 知道KNN算法求解过程

1.2. 1 什么是K-近邻算法

image-20230710151824432

  • 根据你的“邻居”来推断出你的类别

1.2.1. 1.1 K-近邻算法(KNN)概念

K Nearest Neighbor算法又叫KNN算法,这个算法是机器学习里面一个比较经典的算法, 总体来说KNN算法是相对比较容易理解的算法

  • 定义

如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别。

来源:KNN算法最早是由Cover和Hart提出的一种分类算法

  • 距离公式

两个样本的距离可以通过如下公式计算,又叫欧式距离 ,关于距离公式会在后面进行讨论

image-20230710151839617

image-20230710151849310

1.2.2. 1.2 电影类型分析

假设我们现在有几部电影

image-20230710151857817

其中? 9号电影不知道类别,如何去预测?我们可以利用K近邻算法的思想

image-20230710151908261

分别计算每个电影和被预测电影的距离,然后求解

image-20230710151918233

1.2.3. 1.3 KNN算法流程总结

1)计算已知类别数据集中的点与当前点之间的距离

2)按距离递增次序排序

3)选取与当前点距离最小的k个点

4)统计前k个点所在的类别出现的频率

5)返回前k个点出现频率最高的类别作为当前点的预测分类

1.3. 2 小结

  • K-近邻算法简介【了解】
    • 定义:就是通过你的"邻居"来判断你属于哪个类别
    • 如何计算你到你的"邻居"的距离:一般时候,都是使用欧氏距离
Copyright © MISIN 2022 | 豫ICP备2023040351号-1 all right reserved,powered by Gitbook该文件修订时间: 2024-01-12 07:58:59

results matching ""

    No results matching ""